RPG-2 được thiết kế năm 1947, dến năm 1949 thì trang bị rộng rãi trong Quân đội Liên Xô, đến năm 1959 thì dừng trang bị, thay bởi RPG-7. RPG-2 được sử dụng và chế tạo rất rộng rãi, không thể tính hết được những nước đã sản xuất lậu hay có văn bằng, giống hệt hay hơi khác, cũng không thể tính được số lượng sản xuất vì súng rất dễ chế tạo. Súng được trang bị chính thức trong tất cả các nước dùng vũ khí Liên Xô trước đây. Ở một vài nước đến nay vẫn trang bị. Ở Việt Nam, súng này được trang bị với số lượng rất lớn trong thập niên 1960, thông thường, mỗi tiểu đội có một khẩu. Đến cuối Chiến tranh Việt Nam, Quân đội Nhân dân Việt Nam dùng chủ yếu súng B41. Triều Tiên, Trung Quốc là những nước đầu tiên dùng RPG-2 trong chiến tranh, sau đó đến Việt Nam, Cuba, Ai Cập, Syria. Sau này, súng này tham gia vào rất nhiều cuộc chiến tranh và xung đột ở châu Âu, châu Á, châu Phi, châu Mỹ. Tuy nhiên, chưa bao giờ tham chiến ở Liên Xô, quê hương của nó.

Trong thời Chiến tranh Việt Nam, súng B40 có mặt trong thời kỳ khó khăn nhất, thập niên 1960. Ngày đó, nó là khẩu súng chủ lực để diệt xe cộ, công sự. Những chiến thắng đầu tiên tại Ấp Bắc, Vạn Tường[1][2] đã thể hiện tính năng của súng: khẩu súng của đội quân nghèo, mang nhẹ, ít lực lượng... đánh thắng địch đông và nhiều xe pháo.

Trong Bảo tàng Lịch sử Quân sự Việt Nam còn nhiều súng B40 và B41 do Việt Nam sản xuất.